Recursa：迈向递归自改进的基础模型系统
🧭 Agent 多智体递归自改进 ★ 深度解读
Alibaba Research
构建知识仓库引导的多智能体递归自改进系统，无更强模型下将法律领域任务全对率最高提升至 55.0%
📌 工作参考价值（4 点）
- 可复用 harness 设计：给搜索/推荐/广告 Agent 使用 persistent Python REPL + append-only event log。召回、排序、筛选等中间结果留在 Python 变量，只把最终证据回传模型，长链路追踪不必全量进 context；故障诊断时按地址检索历史轨迹，避免上下文爆窗。
- 把领域知识沉淀为可加载 skills：电商新类目冷启动可以先构建类似导航结构，把类目规则、商家文档、商品属性约束浓缩为可加载技能包；每次任务后反思失败案例，将“该找什么证据”和“怎么判断证据是否充分”写成可叠加的 memory/skill，而不是每次从头探索。
- 多 learner 按失败模式拆分优化：不要用一个全局 prompt 大修。按类目、意图、失败原因或技能子集拆分任务，并行做局部改进后合并验证；合并后必须抽样回归已通过任务，避免新编辑造成退化。单 learner 很容易过拟合训练集，生产上推荐拆分+合并+回归。
- 利用无权重更新做快速迭代：在无法频繁微调推荐/搜索模型时，先通过文本化知识仓库快速迭代领域规则与策略，积累到一定程度再作为后续模型训练数据，这与生成式推荐里先沉淀 Semantic ID 或知识卡片再训练模型的路径一致。
先试后演进：基于排名评分短试炼的推荐系统递归自改进
🧭 推荐系统递归自改进 · LLM 代码进化 ★ 深度解读
University of Science and Technology of China
RecRSI 用短训练+probe全排序NDCG@10试炼筛选LLM候选训练编辑，再full retrain最优编辑，大幅提升自进化效率与效果
📌 工作参考价值（4 点）
- 在 LLM 改写训练 recipe / pipeline 的自进化流程中，不要逐条 blind full retrain；让 LLM 生成 K=3 个覆盖 loss、sampler、optimizer、architecture 的候选 edit，先做 short trial：从同一初始化训练前 15% steps，用 probe 用户的 full-ranking NDCG@10 打分，再只 full retrain 最高分 edit。
- 必须做用户切分隔离：probe users 用于 early stopping 和 trial 选择，select users 用于 promote 决策，Test 只在最终看一次；避免反复比较把验证集选到过拟合。
- 当候选修改了 loss / negative sampler / optimizer 时，训练 loss 尺度不可跨候选比较；要用不受训练目标影响的真实业务核心指标（如 NDCG/GAUC）做 early signal，这条对电商/广告 auto-tuning 同样成立。
- 把 parent recipe 的 trial 分数作为 reference：如果所有候选 trial 都不超过 parent，可以跳过本轮 full retrain；论文中可省下 5/7 次未 promote 的 retraining。静态检查 + smoke test 先过滤不能跑、可能改评测逻辑的 edit。
Skill∞：智能体技能优化的递归自改进框架
🧭 Agent 递归自改进 · 技能优化 ★ 深度解读
National University of Singapore · City University of Hong Kong
将技能优化流程编码为可自我优化的 meta-skill，实现跨任务复用的递归自改进
📌 工作参考价值（4 点）
- 在电商/搜索推荐的 Agent 平台中，把策略优化器（如 query 改写、召回策略、排序规则的生成与迭代流程）封装成可被自身优化的 skill，让优化器随业务反馈递归进化，替代人工设计 pipeline。
- 独立 reviewer 机制值得借鉴：对候选策略用隔离上下文评审，拒绝未激活、不可用或仅靠噪声涨分的候选，可以降低离在线指标误判和 reward hacking 风险。
- 采用原生 skill discovery（仅凭 name/description 让 Agent 自主加载）而非 prompt 注入，更贴合部署环境；把 description 纳入优化范围可提高激活率，这对推荐 Agent 的 skill 路由设计很实际。
- 解耦 meta-skill 与任务 skill，先在多个优化任务上提炼通用优化器，再复用到不同类目/国家/活动场景，摊薄自改进成本，适合多业务线共用一个优化框架。
HarnessMM：通过守卫决策复用与递归自改进提升 Agent 工具链 Token 效率
🧭 Agent 工具链推理复用与配置自改进
Tsinghua University · Microsoft Research Asia
用守卫决策复用替换工具反馈后的重复推理回调，不改模型权重即可降低Agent harness token成本
📌 工作参考价值（3 点）
- 在电商/导购类 Agent 中，工具返回收据后若满足预设 guard（如价格、库存未变），直接用缓存的动作参数继续执行，避免重复调用 LLM；把“已解析的工具调用”做成可执行决策图，存字面参数与依赖，工程上可大幅省 token。
- 引入 Certified Callback Substitution：在模型-工具边界注册回调替换时，保留原生接口并记录删除慢回调，新语义或证据不足就回退原模型，实践中保障效果不下降。
- 借鉴 RSI：固定模型权重，用训练/评估反馈迭代优化 harness 配置（守卫阈值、缓存策略），验证集选优，能以低成本对线上 agent 配置做自动调参。
递归自改进的 Agent 编排：自博弈与技能内化循环
🧭 多智能体编排自博弈 · 技能撤除 ★ 深度解读
The Chinese University of Hong Kong, Shenzhen, China · Fudan University, China · University of Illinois Urbana-Champaign, USA · Tsinghua University, China · National University of Singapore, Singapore
通过双层递归自博弈，用技能撤除下的任务可学习性作奖励，实现零技能部署并全面超越基线
📌 工作参考价值（4 点）
- 技能生命周期管理：用“with vs without skill”成对对比估计技能净贡献，而非单看成功率或单一噪声分数，避免在课程分布变化时误判；可用 Bayesian 后验做撤除决策，设定预期损失上限，实现技能自动退役。
- 课程设计：在 RL 训练中，奖励任务在关键组件/技能被移除后仍保持结果多样性（learnability），而不是奖励绝对难度或失败，可避免优势坍塌并鼓励泛化；该思想可迁移到生成式推荐或多 Agent RAG 的任务采样。
- 训练效率：复用同一组 rollouts 同时做策略更新和技能评估，不增加额外采样成本；随机隐藏部分上下文可让模型提前适应零技能部署，逐步摆脱对昂贵工具或提示的依赖。
- 双层时间尺度架构：外层定期评估并撤除不再贡献的工具/提示，内层持续用自博弈优化编排策略，适合电商搜索推荐中多 Agent 流程的持续自我改进与降本。
HarnessPro：面向性能-成本权衡的递归 Harness 自改进
🧭 Agent harness 多目标自进化 ★ 深度解读
Tsinghua University · Z.AI Co., Ltd. · Shanghai Jiao Tong University · University of Warwick · Kuaishou Technology
多智能体递归改进 agent harness，用 Pareto 选择产出 lite/medium/heavy 三档，同时提升 pass rate 并降低执行成本
📌 工作参考价值（4 点）
- 用固定 LLM 生成测试替代 LLM judge 评估候选轨迹：在无 ground-truth 的 agent 优化中，失败召回从 41.7% 提升到 83.3%。做电商导购/客服 agent 的 harness 或 prompt 迭代时，先基于任务描述和初始轨迹生成回归测试，后续所有候选用同一套测试，避免 LLM 判断过度乐观。
- 产出 Pareto 前沿而非单一最优：用 normalized weighted squared-distance 按 (1,2)/(1,1)/(2,1) 选 lite/medium/heavy 三档，分别对应严格成本、均衡、性能优先部署。线上可按预算分流：大促期切 lite，日常用 medium，高价值场景用 heavy。
- 动态 routing + budget hooks 是降本关键：从任务描述选择 reasoning effort 和 tool call 预算，达到阈值后通过 hook 提醒收敛或阻断额外调用；比全局降低 reasoning effort 更能保住 pass rate，适合在推荐/搜索 agent 中按 query 难度分档执行。
- 压缩工具输出和精简 system prompt，保留 prefix 缓存：用类似 RTK 的日志折叠/长输出压缩减少重复上下文 token，是低成本但有效的工程优化。
EvalResearchBench：让 AI Agent 自主设计评测反馈，支持递归自我改进
🧭 AI Agent 自动化评测设计 ★ 深度解读
Oregon State University · University of California, San Diego · Pennsylvania State University · AG2 AI
首个系统评估 AI agent 在固定预算下自主设计、迭代并冻结评测器的基准
📌 工作参考价值（4 点）
- 在电商/广告/搜索推荐场景中，如果已有一套昂贵的线上 A/B 或离线评估集（如用户满意度、转化率、长期留存），可以借鉴 ERB 的思路，让一个 LLM agent 用固定预算从已有标注/日志中挑选或合成一个小而精的「代理评测集」，通过 pilot 迭代修正 grader 和权重，再用 sealed 候选模型验证其排序能力。
- 评测器的构建成本与执行成本要分开账本管理：研究/开发预算和最终评估预算独立，防止 agent 在思考阶段消耗光测试资源。在业务中可对应「离线实验预算」和「在线评估配额」的隔离。
- 关注 aggregation 的权重设计：Grok 的案例显示，按 development 候选排序拟合出的权重可能严重依赖少数几个高分题目，导致有效信号被稀释；用 equal weight 重新计算后 Score 明显提升。业务中设计离线离线指标加权时，应避免过度拟合历史模型的排序，定期用新模型反查权重是否稳定。
- 题目数量对评估一致性和稳定性有直接影响：从 10 题到 90 题，Score 均值上升且方差下降。若业务要做轻量级模型评估，建议保证每 domain 至少 30-60 个有区分度的样本，否则容易高估/低估某个模型。
RSI-Anything：用世界模型解锁递归自改进
🧭 世界模型驱动的递归自改进
提出基于预测世界模型的递归自改进框架，在代码、GUI、科学任务中提升成功率并降低交互成本
📌 工作参考价值（4 点）
- 可借鉴其「预测选择 + 条件自适应」思路：在电商 Agent 或推荐流程中用世界模型预筛候选 action / 训练样本，减少对昂贵外部反馈（人工标注、在线实验）的依赖。
- 将 policy 与 world model 作为配对版本管理，通过 component / compatibility check 决定是否保留更新，能防止 Agent 多模型链路中的版本漂移，适合多阶段生成式推荐管线。
- GUI 评估中平均 actions 减少 39.4%，说明世界模型引导能在保持任务完成率的同时降低交互步数，对需要控制 token / 工具调用成本的 Agent 工作流有直接迁移价值。
- 小规模但一致的提升模式：代码修复 26.3%→29.2%→31.2%，说明预测选择与模型自适应可叠加，业务上可作为低成本增量优化手段。
Memento 3：通过反思式规则簿实现基于模型的递归自我改进
🧭 LLM Agent 通过可执行世界模型递归自改进 ★ 深度解读
University College London · Huawei Noah's Ark Lab, UK · University of Liverpool
让冻结 LLM Agent 用自然语言规则簿+可执行代码作为显式世界模型，通过反思与验证递归自改进，在 ARC-AGI-3 全部 25 个游戏达到人类动作效率天花板
📌 工作参考价值（4 点）
- 在电商搜索推荐 Agent 中，可把「用户意图/商品属性/召回规则」维护成 natural-language rulebook + 可执行代码，作为显式世界模型；用 action-observation 轨迹做 exact replay 验证，只接受能复现历史交互的规则/代码，避免 LLM 幻觉。
- 引入 Git 版本化记忆：每次规则修订/代码编译提交 commit，能 diff、回滚，便于线上排查与衰减实验；相当于把模型的「学习轨迹」变成可审计资产。
- population 扩展：同时维护多个世界模型假设，共享交互证据，用行为等价类采样保证探索多样性；在不确定用户意图或流量分布变化时，可以做多臂/集成式探索，降低单一错误假设的自我确认风险。
- 如果业务中需要 Agent 在无 reward 的交互环境中做事，可直接借鉴「反思→修订规则→编译为代码→验证」loop，把策略改进外置到可执行模型，而不是微调 LLM 参数，适合 rapid iteration 和低成本 rollback。
TestPrism：超越单参考的代码测试评估与 TestHelix 改进
🧭 LLM 代码测试生成评估
Nanjing University · Hong Kong Polytechnic University · Tencent
提出 TestPrism 基准与联合成功函数，揭示单参考评估高估测试质量，并用 TestHelix 将联合成功率提升 8.67-9.00 个百分点
📌 工作参考价值（4 点）
- 评估生成式输出（如 query 推荐、文案改写、搜索建议）时，不要只用单一参考做金标准：构建多个有效/无效候选，要求模型同时接受所有有效变体、拒绝所有无效变体，避免指标虚高。
- Agent 工作流中引入「同行交叉验证」：多个模型/策略互相打分、过滤，能提升生成结果的稳健性，可直接用于推荐文案、搜索词等多候选生成场景。
- 借鉴 TestHelix 的递归自我改进：用失败样本构造「错误→修复」对，迭代微调或 self-training，适合用于低资源场景下生成式推荐的冷启动或长尾覆盖。
- 异质合成正负样本的思路可迁移到推荐/搜索的训练数据构建：混合不同来源/策略生成多样化有效和无效样本，增强模型对边界情况的区分能力。
PhysEvo：让 Astra 行动，物理递归自改进框架
🧭 具身智能 · 递归自改进 Agent
University of Chinese Academy of Sciences · Institute of Automation, Chinese Academy of Sciences · Tsinghua University · Independent Researcher
冻结模型上通过元代理诊断失败、修订工具与技能，大幅提升机器人操作成功率
📌 工作参考价值（4 点）
- Agent 自改进闭环可迁移：将执行轨迹作为诊断数据，让 meta-agent 分析失败原因、生成工具/技能修订，再通过测试验证后保留，这套「执行-诊断-修订-验证-保留」流水线可直接用于推荐/搜索 Agent 的策略迭代，无需更新底层 LLM 权重。
- 工具层迭代优于模型层重训：PhysEvo 证明在冻结模型上只改工具和技能就能显著提升成功率，对业务 Agent 来说，维护可复用的工具库和技能模板，比频繁微调模型更经济、更可控。
- 测试驱动修订：meta-agent 会先测试候选修订再决定保留，避免把坏的工具引入生产环境；在推荐 Agent 中可以对新的召回/排序工具进行离线评估或 A/B 测试后再上线。
- 可复用技能沉淀：修订后的技能被保留并支持后续任务，类似推荐系统的可复用策略模块，如用户意图识别、动态 query 改写等，通过累积有效修订形成领域知识库。
AI研究Agent的递归自我改进：自主优化自身代码
🧭 AI Agent 递归自我改进与自主优化
Weco AI
展示AI研究agent通过递归自我改进在8天内自主发现7项改进，泛化至未见任务并降低reward hacking
📌 工作参考价值（4 点）
- 可将推荐/搜索agent的pipeline组件（如query改写、召回策略、排序规则）视为可编辑对象，用隐藏评估集自动迭代改进，减少人工调参与A/B测试次数。
- 借鉴论文发现的记忆压缩与管理机制，在电商会话agent中管理长上下文（多轮对话、商品浏览历史），避免上下文超限并保持性能。
- 采用分布外（OOD）留出任务评估泛化，防止agent在特定业务指标上reward hacking（例如只优化点击率而忽略转化或用户体验）。
- 递归自我改进本身是一种自动化元优化，在有明确评估信号和足够算力的场景（如生成式推荐中的Semantic ID搜索策略）可尝试。
RRSI：Agent 外壳的正则化递归自改进
🧭 Agent 自改进正则化 · harness 进化 ★ 深度解读
Google Cloud AI Research · UNC-Chapel Hill · Stanford University · Washington University in St. Louis
用 proposal 与 selection 两侧正则化约束 Agent harness 自改进，缓解在有限 evolve set 上的过拟合
📌 工作参考价值（4 点）
- 在电商搜索/推荐 Agent 或购物助手做自动化 prompt、tool description、context 管理的 A/B 调优时，很容易在内部小评测集上过拟合。可复用 RRSI 的 leakage screening：评估前先用 critic 过滤掉显式包含 task name、商品名、类目特定逻辑或实体值的候选，防止这类候选靠局部泄漏获得高 evolve score 进入后续搜索。
- 引入 noise band 接受 floor：先在固定 base harness 上重复评估估计噪声 δ，候选分数必须 ≥ S*-δ 才允许替换 incumbent。这能避免在搜索/推荐 Agent 的策略迭代中，把随机噪声冠军当成稳定改进永久写入系统。
- cost-aware acceptance 对生产很有用：任何候选若增加 policy tokens（例如更长的 few-shot 示例、更多 tool schema 字段、额外 context 读取），必须用 ΔC ≤ β0 + β1 ΔS 证明收益。可以直接迁移到线上成本约束的推荐 Agent 或 LLM 链路，避免演进结果越来越贵但得分不涨。
- 结构化探索和 evidence-aware history 可以复用到 query 改写策略、召回 prompt、排序 Agent workflow 的自动搜索：记录每轮修改的组件、假设和验证结果，停滞时优先探索从未改过的组件（如 control flow / context 管理而非继续改 prompt）。另外可加一个跨模型验证步骤：搜索得到的 harness 若不随 backbone 能力消失，才更像可复用机制而非策略专属补丁。
SoL-Pi：递归扩展自动研究循环，打造高效 Agent Harness
🧭 Agent harness 层 token 效率优化
NVIDIA · NTU · MIT
在 harness 层递归搜索自动研究循环，保留四种 token 效率机制，性能不变但成本降约三分之一
📌 工作参考价值（4 点）
- 上下文压缩可迁移到多轮推荐 Agent：Online Context Compact 与 Evidence-Preserving Reducer 的思路能直接用于电商对话推荐或搜索 Agent 的长对话历史管理，保留关键商品/用户意图证据，削减冗余交互，降低推理 token 与延迟。
- Action Fusion 减少工具调用开销：在 Agent 需要多次调用商品检索、库存查询、价格比较等 API 时，将多个小操作合并为一次批量执行，可以显著减少重复上下文注入，节省成本；对广告投放 Agent 的多步出价查询也有参考价值。
- ObservationPack 打包观测结果：让 Agent 一次接收多个工具返回的结构化摘要而非逐条处理，可以提升上下文利用率，适合高吞吐的搜索/推荐实时决策场景。
- 递归自我改进的 harness 搜索思想：可以在业务 Agent 流水线上自动探索 token 效率优化配置（如提示压缩、工具调用顺序），用离线环境评估成本与效果，实现自动降本，不必手工调优。
ScienceBuddy：交互式科学智能体的递归自改进
🧭 科学智能体 · 递归自改进
发布 ScienceBuddy 科学工作空间，以递归内外双循环耦合 harness 演化与模型强化学习
📌 工作参考价值（4 点）
- 将用户反馈转化为训练任务与评估 rubrics：电商/推荐 Agent 可借鉴，把用户点击、拒绝、改写等交互行为和执行结果自动转成带评分的训练样本，持续优化推荐策略，而非只靠离线日志。
- 内外双循环解耦模型与工具链迭代：内层固定模型优化工具/harness，外层在改进后的 harness 下训练模型。业务上可先完善 Agent 的工具调用、API 接口、记忆管理等，再逐步 RL 训练模型，降低同时改动带来的不稳定。
- 多模态工作空间 + 模块化工具集成：ScienceBuddy 的 224 tools / 22 modules 架构启示电商 Agent 平台可将商品图、评论、表格、用户序列等不同模态数据统一接入，按任务模块化编排工具，支持快速扩展。
- 执行证据纳入持续学习：把 Agent 执行过程中的中间步骤、失败信号作为训练经验，可用于改进搜索推荐 Agent 的 query 改写、商品对比、决策链路，提升可解释性与可靠性。
模块化递归执行框架自改进：可泛化的对比式 Harness 进化
🧭 Agent harness 自进化 · 模块化归因 ★ 深度解读
Beihang University · University of Manchester · IQuest Research · M-A-P · Langboat
对比同类轨迹并按五个功能模块独立进化 harness，在基准隔离数据上实现跨任务/跨模型可泛化自改进
📌 工作参考价值（4 点）
- 将推荐/搜索 Agent 的执行 harness 拆成 Agent Loop / Tool Use / Observation Management / Context Management / Task Completion Detection 五个模块，每次只改一个模块并限制 diff 范围；这比整体改写 prompt 或流程更可控，适合线上 Agent 的灰度、回滚与归因。
- 采集同一任务的多次 rollout，区分 positive / contrastive / negative 组，用成功-失败轨迹对比定位“哪个机制该改”，并用跨任务投票聚合证据，避免把单条失败轨迹的 case-specific 修复写进全局；可迁移到商品推荐、query 改写、客服 Agent 的失败归因。
- 建立与评估集隔离的进化任务池（benchmark-disjoint），每个改动必须通过 AST/静态检查、import/protocol 校验、以及“是否过拟合当前实例”的 diff review 后才保留，否则自动回滚；这能防止自改进只在测试集刷分，适合离线自进化流水线。
- 维护 Evolution History 和 Trajectory Memory，对函数库做 Function Merge + Task-Aware Function Composition，避免多轮自改进后函数膨胀和振荡；适合把 self-improvement 用于线上持续优化但需要控制风险。
RSIAgent：新环境下的自主探索递归自我改进
🧭 多智能体自主探索与递归自我改进 ★ 深度解读
Aether AI · University of California San Diego · University of Illinois Chicago
训练无关多智能体框架，通过 broad-then-deep 探索构建可复用记忆，让开源模型在 OSWorld/ALE 超越 GPT-6
📌 工作参考价值（4 点）
- 多智能体解耦探索与验证：在电商/广告 agent 中可将任务生成、执行、验证三个角色分离，verifier 独立于 actor 的私有记忆，降低相关错误；尤其适合新平台/新活动页面的自动适配。
- broad-then-deep 探索策略：先并行跑广泛任务覆盖环境结构和常见操作，再针对高失败率/边界 case 做深度挖掘，可迁移到电商 RPA 或 GUI agent 的冷启动记忆构建。
- 记忆冻结与经验所属学习：每个 actor 对自身经验做蒸馏与冲突消解，再串行合并，避免并发写入冲突；记忆以无 schema 文件形式存储，工程实现简单且易复用。
- 用 code-as-policy 统一动作接口：在电商自动化中，用 Python/Bash 脚本操作后台或工具，比逐步 GUI 点击更稳定、易修正，且方便沉淀可复用流程。
广义智能体迭代：统一迭代策略改进与递归自改进的形式框架
🧭 Agent 迭代学习的形式化框架
Tianjin University · Shanxi University
提出 GAI 框架，用两个维度统一经典 GPI 与递归自改进，并给出目标漂移与自指缺陷的形式化刻画
📌 工作参考价值（4 点）
- 在电商/推荐的 LLM Agent 自改进链路（如 self-refine、Reflexion）中，可用论文的两个旋钮做架构审查：改进机制是否在 Agent 内、评估标准是否外部接地；优先采用 anchored 配置，把奖励模型或业务指标作为独立外部评估器，避免同模型自评导致 goal drift。
- 多轮自训练或 self-play 策略迭代时，若候选生成与评估标签都由同一模型产生，系统会滑向 fully self-referential；工程上应引入独立线上业务指标、人工标注或固定测试集作为外部锚点，并设置漂移监控。
- 可将改进机制显式外置为独立组件（如单独 prompt、规则或小模型），使系统具备 GPI 式可分析性；等外部评估稳定后再逐步将改进机制内化为 Agent 的一部分，降低不可控递归风险。
- 论文偏理论，无实验或可复用算法；主要价值是提供诊断自改进系统缺陷的坐标语言，适合作为设计评审的思维框架。
NeoHorse-1：路由 Harness 驱动的 Agentic 后训练与递归自改进
🧭 Agent 后训练 · 路由驱动的课程与蒸馏
TokenRhythm
通过路由 harness 记录能力需求并构建三阶段课程与蒸馏，实现 4B/9B agent 模型的递归自改进后训练闭环
📌 工作参考价值（4 点）
- 利用线上多模型路由日志自动构建训练集：记录每次请求的预测能力需求、选择的模型档位和交互轨迹，形成天然的难度标签；电商/广告场景中可在低成本小模型与大模型路由架构上持续积累数据，定向提升小模型能力。
- 三阶段课程由路由信号组织，先易后难进行 SFT，再衔接 on-policy distillation；相比直接 SFT，让学生模型在自身生成分布上被教师纠正，可稳定提升 agent 工具调用和推理一致性，适合推荐/搜索 agent 的复杂指令跟随。
- 数据准入的多维评估（结构校验 + 六维语义评分 + 子场景标注）值得借鉴：在构建推荐/搜索 agent 的交互数据时，过滤低质量轨迹，避免污染训练集，尤其对工具调用格式和上下文依赖敏感的场景。
- 建立 evaluation→mixture allocation 的闭环：用评测反馈动态调整下一轮训练数据的任务配比，适合多任务持续迭代的电商 Agent 平台（如商品推荐、广告文案、客服工具混合）。
递归式经验-工作记忆演化：面向长程 Agent 的验证门控记忆架构
🧭 Agent 长期记忆与递归自改进 ★ 深度解读
NUS · Stanford University · University of Oxford · Princeton University
Recuris 用工作记忆驱动技能调用，将失败定位到记忆组件并验证门控演化，在长程任务上提升成功率
📌 工作参考价值（4 点）
- 长程电商/客服 Agent 的状态管理：把会话目标拆成 pending/done/blocked 的 verified state，每个 goal 带支持证据；只在执行事件（如确认下单、改地址、退款调用前）由 harness 注入对应技能，而不是把全量 SOP 或工具说明放 prompt。全量注入在本实验中反而比无技能更差（模型控制 65.6 vs 无技能 82.0），说明“何时调用”比“内容多少”更关键。
- 失败复盘与技能库更新：记录结构化 trace（状态→调用技能→动作→环境反馈→提案状态→检查器判定），用固定 Meta-Agent 把失败归因到技能缺失、状态更新错、调用时机错、校验器误判四类组件；只修补命中组件，再经 held-out 验证门控。可以迁移到 agent 评测流水线或 SOP 迭代，避免全量重写记忆。
- 验证门控的必要性：候选补丁必须在修复源失败的同时不回归 anchor tasks。电商技能库更新时也建议保留历史成功案例作为回归集，避免新规则破坏已有能力。
- Test-time adaptation：对高价值单任务（如大订单异常、投诉处理）可用多次尝试 + 一位 verifier 的反馈，在局部更新经验记忆后重试；但一定要与 budget-matched 简单重试对照，否则会混淆增益来源。
AI4AI-Bench：评估LLM智能体设计训练算法实现递归自我改进
🧭 LLM Agent 训练算法设计基准
Navers Lab · Einsia.AI · Tsinghua University
构建10任务基准，评估LLM智能体重写训练算法实现递归自我改进的能力，最强仅得0.250分
📌 工作参考价值（4 点）
- 构建内部Agent能力基准时，可采用「冻结代码仓库+固定隐藏评估器+统一归一化分数」的范式：对不同任务的不可比指标映射到同一量纲，0为无信息模型，0.1为基线仓库算法，1为任务最优，便于横向对比各种Agent配置。
- 结论提示：多数LLM Agent在优化任务中只做数据收集或超参数调优，很少真正改变模型学习规则。在电商推荐/广告场景中，若用Agent自动优化训练pipeline，需显式检测其是否只调参而不改update rule，否则提升有限。
- 推理努力（reasoning effort）主要提高Agent「敢于修改核心训练算法」的概率（8%→64%），但对最终得分提升有限。业务上若让Agent做模型优化，增加思考预算可能带来更多探索行为，但需要配合约束和评估器防止无效改动。
- 工程实现上，对Agent提交的代码在隔离环境下从零重跑并限制计算预算（4h重写/12h重训），可防止作弊并确保公平，适合作为自动化优化任务的评估标准。
Frontis-MA1：面向递归自我改进的机器学习工程训练
🧭 AI4AI 自动化机器学习工程 ★ 深度解读
Horizon Research · Frontis.AI · Tsinghua University
通过执行反馈训练 Draft/Improve/Debug/Crossover 原子算子并组合长程进化搜索，在有限 GPU 预算下将 MLE-Bench Lite 奖牌率从 39% 提升至 71%
📌 工作参考价值（4 点）
- 原子算子训练 + 进化搜索范式：将复杂任务（如推荐模型自动调参、特征工程）拆解为 Draft/Improve/Debug/Crossover 四种原子操作，用执行反馈训练这些操作，再通过 OpenMLE-Evo 组合成长程搜索，可直接迁移至 AutoML 或 Agent 自动优化推荐 pipeline 的场景。
- 执行反馈 RL 的自适应奖励设计：使用自适应上下界和熵优势（entropic advantage）将学习信号集中于高质量解，而非仅奖励有效解。在推荐策略搜索或 SQL 生成等可验证任务中，可避免模型产生“能跑但性能差”的结果。
- 结构化经验与父代选择策略：通过结构化经验卡（score/improvement/novelty）进行父代选择，兼顾解的质量、改进幅度和方向新颖性；操作触发式记忆合成避免上下文膨胀。这些可直接用于 Agent 搜索推荐组合空间、模型结构搜索等需要平衡探索与利用的任务。
- 预算自适应的监督数据收集：SFT 阶段每任务设执行预算和接受配额，提前终停止艰难任务，节省计算开销。在标注昂贵或执行成本高的推荐场景（如在线实验）中，可高效获得高质量训练数据。